İletişim Kısıtları Altında Dağıtık Rasgele-Alan Kestirimi Decentralized Random-Field Estimation Under Communication Constraints

We consider the problem of decentralized estimation of a random-field under communication constraints in a Bayesian setting. The underlying system is composed of sensor nodes which collect measurements due to random variables they are associated with and which can communicate through finite-rate channels in accordance with a directed acyclic topology. After receiving the incoming messages if any, each node evaluates its local rule given its measurement and these messages, producing an estimate as well as outgoing messages to child nodes. A rigorous problem definition is achieved by constraining the feasible set through this structure in order to optimize a Bayesian risk function that captures the costs due to both communications and estimation errors. We adopt an iterative solution through a Team Decision Theoretic treatment previously proposed for decentralized detection. However, for the estimation problem, the iterations contain expressions with integral operators that have Bu çalışma TÜBİTAK’ ın 105E090 ve Avrupa Komisyonu’ nun MIRG-CT-2006-041919 sayılı projeleri kapsamında ve bir TÜBAGEBİP ödülü ile desteklenmiştir. no closed form solutions in general. We propose approximations to these expressions through Monte Carlo methods. The result is an approximate computational scheme for optimization of distributed estimation networks under communication constraints. In an example scenario, we increase the price of communications and present the degrading estimation performance of the converged rules. 1. Giriş Algılayıcı ağı uygulamaları ile ilgi gören İmeceli Sinyal ve Bilgi İşleme kapsamında tekrar güncel olan problemlerden bir tanesi de bir rasgele alanın dağıtık kestirimdir. Önerilen yaklaşımlarda çoğunlukla bir merkez düğüm etrafında, aldıkları ölçümü işleyerek elde ettikleri sonucu mesaj olarak merkez düğüme gönderen çevre düğümler yer alır. Merkezdeki düğüm ise aldığı mesajları değerlendirerek bir kestirim üretir. Problem, kestirim hatasını düşük yapacak şekilde her düğüm için işlevler bulmaktır. Sonlu kapasitede kanallar durumunda çözüm çoğunlukla çevre düğümleri için nicemleyici tasarımı ve merkez düğüm için olası mesajların kartezyen çarpımından rasgele alanın değer aldığı kümeye bir kestirimci işlevin belirlenmesi şeklindedir. Bu bağlamda iletişim kısıtları probleme yıldız biçimli, yönlü bir ağ topolojisi ve her kenar için atamış kapasite olarak yansımaktadır [1]-[4]. Öte yandan, [5]’ de bir dağıtık sezimci ağı ele alınarak iletişim ve hesaplama yapısı daha genel bir şekilde ifade edilmektedir. Buna göre, V = {1, ..., N} olmak üzere G = (V, E) bir çoklu-ağaç çizge olsun. (i, j)∈ E , i. düğümden j.’ ye yönlü iletişim kanalını temsil etmek üzere, i. düğüm Ui→j kümesinden bir sembol iletebilir. Ebeveyn düğümler π(j) Δ = {i ∈ V|(i, j) ∈ E}’ den gelen tüm mesajlar uπ(j) {ui→j |i ∈ π(j)}, π(j) = {π1, ..., πP } ve P ebeveyn sayısı olmak üzere Uπ(j) Uπ1→j × ...×UπP→j kümesinden değer alır. j. düğümün çocuk düğümleri χ(j) {k ∈ V|(j, k) ∈ E} olmak üzere ileteceği mesajlar uj {uj→k|k ∈ χ(j)} olur ve değer aldıkları Uj kümesi, Uπ(j)’ ye benzer şekilde tanımlanabilir. Bu işleyişte j. düğüm, ilintilendirildiği rasgele değişken xj ∈ Xj etkisi ile yj ∈ Yj gözlemini yapar, uπ(j) ve yj’ ye bağlı olarak, γj : Yj × Uπ(j) → Uj ×Xj ile tanımlı bir işlevin yj ve uπ(j) ’ ye karşılık gelen değerini hesaplayarak bir kestirim x̂j ∈ Xj ve giden mesajlar uj ∈ Uj elde eder. γj işlevleri yerel kurallar, γ (γ1, ..., γN ) strateji olarak adlandırılmaktadır. Bu durumda yerel kural uzayları j ∈ V için ΓGj = { γj |γj : Yj × Uπ(j) → Uj ×Xj } ve strateji uzayı Γ = Γ1 × ...× Γ G N olur. İletişim vektörü ise u {ui→j |(i, j) ∈ E} şeklindedir ve yine benzer şekilde 978-1-4244-4436-6/09/$25.00 ©2009 IEEE 524 Authorized licensed use limited to: ULAKBIM UASL SABANCI UNIVERSITY. Downloaded on December 4, 2009 at 08:20 from IEEE Xplore. Restrictions apply. u ∈ U olacak şekildeU tanımlanabilir. Sonuçta iletişim kısıtları altında dağıtık sezimci tasarımı, Xj ve Ui→j sonlu kümeler seçilerek X = X1 × ...×XN olmak üzere Bayesçi risk işlevi u ile (x̂, x) ikilisine sırası ile iletişim ve hata maliyeti atamak için c : U × X × X → biçiminde ve amaç işlev J(γ) E {c(u, x̂, x); γ} iken (P): min γ∈ΓG J(γ) (1) şeklinde bir kısıtlı eniyileme problemine dönüşür. Burada beklenen değer p(u, x̂, x; γ) üzerindendir ve bu dağılım da γ’ nın seçimi ile belirlenir1. (P)’ nin global en iyi çözümünü bulmak NP zorluktadır ve yerine Takım Karar Teorisi çerçevesinde bir değerlendirmeyle, takımı oluşturan kişiler düğümlere karşılık gelerek yerel kuralların kişilerce en iyi çözüm olduğu stratejiye yakınsayan bir özyineleme önerilmiştir [5]. Buna göre X sonlu olduğu için, kişilerce en iyi yerel kuralların her biri sonlu boyutlu bir vektör ile temsil edilebilir. Yerel kurallar ilklendirildikten sonra, l. adımda ardışık koordinatta azaltmalar ile J l ≤ J l−1 olacak şekilde güncellenir ve yinelemeler sonucu kişilerce en iyi sratejiye yakınsanır. Aynı yaklaşımla kestirim problemi ele alındığındaX artık sonlu değildir ve kişilerce en iyi yerel kuralların genel olarak sonlu ifadeleri yoktur. Bunun yerine işlevlerin sonlu, yaklaşık temsilleri ve operatörlerin yaklaşıkları kullanılarak Parametrik Olmayan Kanı Yayılma’daki gibi etkin sonuçlar elde etmek mümkün olabilir [6]. Biz, buradan yola çıkarak, (P)’ yi kestirim problemi bağlamında ele aldık ve Monte Karlo (MK) tümlev hesaplama yöntemleri kullanarak hem yerel kurallara hem de özyineleme adımlarına yaklaşıklamalar elde ettik. Sonuçta düğümleri kişilerce en iyi yerel kurallara makul nümerik yaklaşıklamalara karşılık gelen hesaplamalar yapan bir dağıtık kestirimci ortaya çıkmaktadır. Özyineleme adımları ise sezim problemindeki ölçeklenebilirlik ve dağıtık işlemeye uygunluk özelliklerini korumaktadır. Böylece literatürde yer alan dağıtık kestirimci yaklaşımlarında yer alanlardan daha genel topolojiler ve farklı düğüm-rasgele değişken eşleşmeleri için de çözüm üretebilmekte, önsel dağılım bilgisini de hesaba katarak en yüksek olabilirlik yerine Bayesçi bir yaklaşım kullanabilmekte ve iletişim maliyeti de açıkça göz önüne alındığından kestirim hatasının maliyeti ile iletişim yoğunluğu arasındaki ikişkiyi nicemsel olarak sergileyebilmekteyiz. 2. Kestirimci Tasarımı 2.1. Kişilerce En İyi Strateji İfade (1)’le verilen problem için takım karar teorisi uyarlanarak bir ilk strateji γ0 ile başlayarak kişilerce en iyi stratejiye yakınsayan bir sabit nokta döngüsü tanımlanabilir [5]. Buna göre γ = (γ 1 , ..., γ N ) kişilerce en iyi çözüm ise j. yerel kural γ j = argminγj∈Γj J(γ ∗ 1 , ..., γ ∗ j−1, γj , γ ∗ j+1, ..., γ ∗ N ) koşulunu sağlar. Dolayısıyla kişilerce en iyi stratejiye yakınsayan bir sabit nokta döngüsü Algoritma 1 ile verilmiştir. Algoritma 1: Kişilerce en iyi stratejiye yakınsayan bir özyineleme. 1) l = l + 1; j = 1, ..., N için γ j = argminγj∈Γj J(γ l 1, ..., γ l j−1, γj , γ l−1 j+1, ..., γ l−1 N ); 2) Eğer J(γ)− J(γ) < ε ise dur, değilse Adım 1’ e git; 2.2. Kişilerce En İyi Dağıtık Kestirimci Problemimizin matematiksel gösterimi, X sonlu olmamak üzere ifade (1)’ deki gibidir. Şimdi bazı kabuller yapacağz: 1Bildiride bu tür ilişkiler “; γ” notasyonu kullanılarak p(u, x̂, x) yerine p(u, x̂, x; γ) kullanılmasındaki gibi temsil edilecektir. i. Ölçümler koşullu bağımısız ve yereldir: yj sadece xj kaynaklıdır ve gürültü süreçleri biribirinden bağımsızdır; p(y|x) = ∏ j∈V p(yj |xj). ii. Çoklu-ağaç topoloji: G yönlü bir çizgedir ve iki düğüm arasında en çok bir tane (yönlü) yol vardır. iii. Maliyetlerin yerelliği: Bayes risk işlevi c(u, x̂, x) = ∑ j∈V cj(uj , x̂j , xj) şeklinde yerel maliyetlerin toplamıdır. Bu kabuller altında ve γj hariç tüm yerel kurallar kişilerce en iyi,γ−j = γ −j , ise2 j. düğüm için kişilerce en iyi yerel kural (uj , x̂j) = γ ∗ j (Yj , Uπ(j)), [5]’ de sezim problemi için verilen ifadelerde toplamlar tümlevlere dönüşerek γ j (Yj ,Uπ(j))=arg (uj ,x̂j)∈(Xj ,Uj) min ∫ xj∈Xj dxjp(Yj |xj)φ ∗ j (uj , x̂j , xj ;Uπ(j)) (2) olarak bulunur3 ve burada φj (uj , x̂j , xj ;uπ(j)) ∝ p(xj)P ∗ j (uπ(j)|xj) [ cj(uj , x̂j , xj) + C ∗ j (uj , xj) ] (3) şeklindedir. P ∗ j ve C j verilmeden önce de λ birim iletişim maliyetine eşdeğer kestirim hatası maliyeti olmak üzere yerel maliyetlerin cj(uj , x̂j , xj) = cj (x̂j , xj) + λcj(uj , xj) şeklinde kestirim hatası ve iletişim kaynaklı etkilerin toplamı olarak yazılabildiği ve dolayısı ile J(γ) = Jd(γ) + λJc(γ) olduğu kabulünü yapacağız. cj = cj + cj toplamı Eş.(3)’ de yerine koyularak Eş.(2)’ de verilen kişilerce en iyi kural